Не се доверявайте толкова много: Изпълнителният директор на Openai Сам Алтман признава, че Chatgpt може да сгреши

Не се доверявайте на непоколебимо доверие в Chatgpt, предизвести изпълнителният шеф на Openai Сам Алтман. Изказвайки се за новосъздадения формален подкаст на компанията, Алтман предизвести потребителите да не се разчитат на инструмента AI, казвайки, че макар впечатляващите си благоприятни условия, той към момента постоянно бърка.

„ хората имат доста висока степен на доверие в чатта, което е забавно, тъй като, като, ай халюцинати “, сподели Алтман по време на диалог с създател и технолог Андрю Мей. " Трябва да е технологията, на която не се доверявате толкоз доста. Той сподели, че потребителите би трябвало да подхождат към Chatgpt със здравословен песимизъм, както и при всяка нововъзникваща технология.

Сравняване на Chatgpt с обичайните платформи като търсене в уеб или обществени медии, той уточни, че тези платформи постоянно трансформират потребителския опит за обезпечаване на доходи. " Можете да кажете, че сте монетизирани ", сподели той и добави, че потребителите би трябвало да слагат под въпрос дали показаното наличие в действителност е в техен интерес или е пригодено да задвижва ангажираността на рекламата.

Altman призна, че Openai в последна сметка може да изследва опциите за обезпечаване на монетизация, като такса за транзакция или реклами, сложени отвън потока на AI на AI. Той даде да се разбере всевъзможни сходни старания би трябвало да бъдат изцяло транспарантни и в никакъв случай да не пречат на целостта на отговорите на AI.

" Тежестта на доказателството би трябвало да бъде доста висока, и би трябвало да се усеща в действителност потребно за потребителите и в действителност ясно, че не би се прехвърлял с изхода на LLM, " сподели той. Бъдете " доверие, унищожаващо миг ". 

" Ако започнахме да променяме изхода, като потока, който се връща от LLM, в подмяна на това кой ни заплаща повече, това би се почувствало в действителност зле. И бих мразел това като консуматор ", сподели Алтман.

По -рано тази година Сам Алтман призна, че скорошните актуализации са създали чат прекалено сикофтици и " Аноинг, " Следвайки вълната от заплащания на консуматори. Проблемът стартира, откакто моделът на GPT-4O беше обновен, с цел да усъвършенства както интелигентността, по този начин и личността, като се стреми да усъвършенства цялостното потребителско преживяване. Промените направиха чатбота прекомерно прелестен, като накараха някои консуматори да го опишат като " да-човек ", а не като умислен асистент на AI.